Chat GTP, II Parte: Lo que tal vez no hemos considerado

“Desde que la nueva plataforma de Open IA, Chat GPT, se hizo pública en noviembre del año pasado, se han publicado cientos de artículos detallando los beneficios y los casos de uso de la plataforma y el algoritmo que lo habilita. Los casos de uso son extremadamente variados – desde apoyo en la corrección de códigos (para desarrollos tecnológicos) hasta apoyo en la creación de artefactos de mercadeo. Recientemente vi, una serie de comandos que lograban crear un “business plan” desde cero con un entregable relativamente acertado y detallado” – en una hora-", señala Vanessa Ramos, líder de Aurys Digital.

-Esta amplia gama de posibilidades tiene a muchos deslumbrados y capaces de hacer cosas que antes no podían y otros tantos con temor a perder sus trabajos o a que todo será reemplazado por algoritmos. ¿Qué has observado de esto?

Dependiendo de la fuente, se especula que usar GPT puede ahorrar horas de trabajo (por ejemplo, a los desarrolladores de código) dando los primeros lineamientos o haciendo QA (Quality Assurance), o puede llegar a reemplazar segmentos completos en ciertas industrias – como desplazar a los profesionales de servicio del cliente ya que puede interactuar con consumidores de forma natural. Y es por esto que Chat GPT, logró ganar 1 millón de usuarios a 5 días de su lanzamiento y hoy se estima que sobrepaso los 100 millones.  

-Con toda esta cobertura acerca de los casos de uso y beneficios, parecería que no existen limitaciones o áreas preocupantes relacionadas a su uso. ¿Existen?

Si existen varios y requieren que los usuarios presten atención. Esto es mucho más importante cuando los usuarios son empresas que están considerando como incorporar esta herramienta ( y otras parecidas) en su estrategia de transformación digital corporativa -   que debe ir acompañada de asesorías expertas. Puedo pensar en 4 áreas de cautela como ejemplos:

1. Precisión:  Usar ChatGPT para temas en los que la precisión es riesgosa actualmente. Aunque el modelo generativo fue entrenado con mas de 600 GB de data, la información que provee aún puede estar incorrecta. Dado que el modelo esta orientado a proveer una respuesta final, puede generar una respuesta que parezca ser suficientemente detallada y sofisticada pero incorrecta. Si no se hace una buena revisión se puede compartir información incorrecta.

2. Sesgos: Promover sesgos sin darnos cuenta es muy posible. ChatGPT es un modelo de NLP y estudios en el 2019 y 2020 han relevado la tendencia de modelos de NLP que han amplificado sesgos raciales y de género.

3. Contexto: ChatGPT no tiene la capacidad de deducir contexto, como lo podemos hacer los humanos, por ende, si los pedidos no son precedidos por la cantidad correcta de contexto, la respuesta no va a ser acertada.

4. Privacidad: Para acceder a ChatGPT tienes que registrate con información personal identificable. Todas las búsquedas están atadas a tu información de autenticación. Dado que el modelo agrega contexto de las búsquedas para mejorar las respuestas, también esta creando un perfil del usuario.

Dado estos limitantes, existen actividades para las que ChatGPT, en su estado actual, no es la herramienta más indicada. Algunos ejemplos, son:

·        Crear documentos que deben estar propiamente referenciados, como investigaciones. Actualmente, las citaciones pueden ser incorrectas o no existir, por lo que lo mejor es usar la herramienta para crear un bosquejo y luego escribirlo.

·        Crear diagnósticos médicos.  Para esto se debe consultar a un profesional médico. La ciencia esta avanzando y hay varias áreas que están aplicando Inteligencia Artificial al proceso de diagnóstico, sin embargo, funciona mejor cuando las condiciones son “textbook”, así que aún se necesita input experto.

·        Desarrollar documentos legales. Aunque se pueden crear lineamientos de las cláusulas que se deben incluir en un contrato, por ahora es importante que la revisión final sea hecha por un experto en el área y la geografía especifica.

·        Reemplazar al experto integrador. Aunque el proceso de levantamiento de información se acelera, aun es necesario saber como se integrara y utilizara esa información.

Dado que la celeridad de maduración de estas tecnologías y el nivel y calidad de inversionistas que tiene Open IA, no queda descartado, que en el mediano plazo se resuelvan estos limitantes y ChatGPT logre abordar estos casos de uso mas específicos.

Dicho esto, es evidente que la plataforma es un aporte en procesos definidos y con la exigencia de integrar la mayor cantidad de información posible, pero hoy aun no reemplaza el aporte humano de calidad que se requiere para gestionar una empresa.